《Tutorial on Diffusion Models for Imaging and Vision》 https://arxiv.org/abs/2403.18103

朗之万方程与福克 - 普朗克方程

许多关于扩散模型的近期论文，要么聚焦于提升图像生成质量（通过将其推广到语义更丰富的图像），要么致力于将其应用于新领域的问题（如医疗数据）。

具体而言，我们的研究涉及与扩散相关的两大类方程：朗之万方程和福克-普朗克方程。首先，探讨朗之万方程的起源，阐释它为何与扩散模型相关。解释马尔可夫过程的一般性质，以及与之相关的微分方程。最后，展示福克-普朗克方程是如何推导出来的，并讨论它在扩散模型中为何占据重要地位。

布朗运动

历史视角：1827 年，植物学家罗伯特・布朗观察到一个现象：当小花粉粒置于水中时，会产生不规则运动 。这种花粉粒的运动后来被命名为布朗运动。1905 年，阿尔伯特・爱因斯坦首次对布朗运动作出解释 ，几乎在同一时期， Marian Smoluchowski 也独立进行了阐释 。爱因斯坦的主要论点是，花粉粒的运动是由水分子的撞击引起的。然而，由于系统中分子数量高达数万亿，且我们从未知晓单个分子的微观状态，使用经典分析来研究显微镜下花粉粒的运动几乎是不可能的。爱因斯坦表明，分子的均方位移可与扩散系数相关联 ，于是他通过考虑分子的统计行为引入了一种概率方法。爱因斯坦的理论预测后来在 1926 年被让 - 巴蒂斯特・佩兰实证确认，佩兰也因此荣获诺贝尔物理学奖。爱因斯坦的论文发表几年后，1908 年，法国物理学家保罗・朗之万构建了一个随机马尔可夫力，用于描述粒子的碰撞和相互作用。这随后促使荷兰物理学家阿德里安・福克在 1914 年推导出一个偏微分方程，德国物理学家马克斯・普朗克于 1917 年对其进行了拓展，该方程如今被称为福克 - 普朗克方程。1940 年，汉斯・克拉默斯和 1949 年何塞・恩里克・莫亚尔引入的克拉默斯 - 莫亚尔展开，展示了一种泰勒展开技术，用于描述概率分布的时间演化。

布朗运动的推导：那么，什么是布朗运动，它与扩散模型又有怎样的关联呢？假设流体中有一个悬浮粒子。斯托克斯定律指出，作用于粒子的摩擦力由下式给出： 其中， 是摩擦力， 是速度，且 。这里， 是粒子半径， 是流体的粘度。根据牛顿第二定律，我们进一步知晓 其中 是粒子质量。将这两个方程联立： 我们将得到如下微分方程： 通过定义 ，我们可将上述方程简化为： 上述确定性方程在粒子质量显著大于流体分子质量时是准确的。原因在于，根据动量守恒，当大质量粒子与流体分子碰撞时，获得的速度很小。然而，由于花粉粒非常轻，水分子的撞击会使它们以虽小但不可忽略的方式加速。这将产生随机波动。此时，水分子作用于粒子的总力被修正为： 其中， 是一个随机项。这将为我们提供一个修正后的微分方程： 通过定义 ，我们得到一个新的微分方程： 它可以用简写符号表示为： 在公式 (5.4) 中，随机过程 代表一种被称为朗之万力的随机力。它满足两个性质：

• 1. 对于所有 t，，即其均值函数为恒定零；
• 2. 对于所有 t 和 ，​，即自相关函数是一个振幅为 q 的 delta 函数。

注记：性质 (i) 和 (ii) 是宽平稳过程的特殊情况。宽平稳过程是一种随机过程，其均值函数为常数（不一定为零），且自相关函数 仅为时间差 的函数。此函数不一定是 delta 函数。例如， 可以是一个有效的自相关函数，满足宽平稳过程的条件。

满足性质 (i) 和 (ii) 的随机过程有时在统计力学文献中被称为delta 相关过程 。有多种方法可构建 delta 相关过程。例如，我们可假设 ，对于不同的 ，或者任何其他独立同分布且以相同方式定义的分布。高斯分布更常被使用，因为许多物理现象（如热噪声）可由高斯白噪声描述。满足性质 (i) 和 (ii) 的高斯随机过程可被称为高斯白噪声。

对于任何宽平稳过程，维纳-辛钦定理指出，功率谱密度可通过自相关函数的傅里叶变换来定义。更具体地说，如果 是自相关函数（若 是宽平稳过程，我们可将 写作 ），维纳 - 辛钦定理表明功率谱密度为： 因此，如果 是 delta 函数， 对于所有 ​ 将具有恒定值。

注记：“高斯白噪声” 这一名称源于功率谱密度 对于每个频率 都是均匀的（因此它包含可见光谱中的所有颜色）。白噪声被定义为对于所有 ，。很容易证明这样的 会满足上述两个条件。

首先， 因构造而满足 （因为 ）。其次，如果 ，则 ​ 必然是 delta 函数。维纳 - 辛钦定理随后表明，功率谱密度是平坦的，因为它是 delta 函数的傅里叶变换。下图展示了白噪声的随机实现及其自相关函数。

从物理学到生成式人工智能：由于 呈现出的随机性，公式 (5.4) 给出的微分方程是一个随机微分方程（SDE）。这个 SDE 的解是一个随机过程，其中 的值在任意时间 t 都是一个随机变量。布朗运动指的是这个随机过程 ​ 作为时间函数的轨迹。公式 (5.4) 中的 SDE 是朗之万方程的一个特殊情况。我们将其称为具有 delta 相关朗之万力的线性朗之万方程：

定义 5.1：具有 delta 相关朗之万力的线性朗之万方程是一种随机微分方程，形式为： 其中， 是一个满足以下两个性质的随机过程：(i) 对于所有 t，；(ii) 对于所有 t 和 ，

此时，我们可以将公式 (5.6) 中的朗之万方程与扩散模型（如 DDPM）相联系。

示例 5.1：前向 DDPM。回顾一下，DDPM 的前向扩散方程为： 将其表示为朗之万方程形式，我们可写作： 示例 5.2：反向 DDPM。反向 DDPM 扩散： 将其表示为朗之万方程形式，我们可写作： 我们可以针对其他扩散模型（如 SMLD）继续这些示例。我们将这些留作读者的练习。我们的核心要点是，前几章中看到的扩散方程都可以通过朗之万方程来构建。因此，如果我们想了解这些扩散方程产生的概率分布，就应该在文献中寻找朗之万方程的相关工具。

（线性）朗之万方程的解：公式 (5.6) 中呈现的线性朗之万方程较为简单。我们有可能解析推导出任意时间 t 时 的解。

我们从考虑更简单的情况开始，即 。此时，微分方程为： 它被称为一阶齐次微分方程。该微分方程的解如下。

定理 5.1：考虑以下微分方程：  ,  初始条件为 。解为：

证明：通过重新排列项，我们可证明： 这里我们假设对于所有 ，以便我们可以取 。对两边积分将得到： 方程左边将给出 ，而右边将给出 。令它们相等将得到： 现在让我们考虑 存在的情况。微分方程变为： 它被称为一阶非齐次微分方程。为求解这个微分方程，我们采用一种称为常数变易法 的技术 。其思路可总结为两个步骤。我们从之前的推导中知道，齐次方程的解是 。那么，对于非齐次情况，我们对解的形式做出合理猜测，即 ，其中 是待确定的某个函数。为简化符号，我们定义 。如果 是该微分方程的解，那么我们可以计算 。方程左边为： 最后一个等式源于 是齐次方程的解，因此 。因此，对于 ，需要 ，即通过找到合适的 来满足。但这并不困难。方程 可写作： 对两边积分将得到： 由于 ，我们可证明： 因此，完整的解（齐次部分与非齐次部分之和）为： 我们将结果总结如下。

定理 5.2：考虑以下微分方程： 初始条件为 。解为：

平衡态分布 ：前面的结果表明，解 是随机过程 的函数。由于每次进行（布朗运动）实验时，我们都不知道 的具体实现，通过查看 的概率分布来描述它往往更有用。接下来，我们遵循 Risken 的方法 ，分析当 且 ​ 时平衡态的概率分布。

定理 5.3：考虑定义 5.1 中的朗之万方程，即： 且 是满足上述性质的高斯白噪声。设 是该 SDE 平衡态的解， 是 x 的概率分布。则有：

定理 5.3：考虑定义 5.1 中的朗之万方程，即： 且 是满足上述性质的高斯白噪声。设 是该随机微分方程（SDE）平衡态的解，​ 是 x 的概率分布。则有： 其中 。换言之，平衡态下解 是一个零均值的高斯随机变量。

证明：设 为初始条件。那么，该随机微分方程的解形式为： 在平衡态，当 时，我们可忽略 这一项。此外，通过令 ，我们可将解表示为： （这里利用了 是平稳过程的性质，即 的统计特性与 相同 ）

概率密度函数 可通过对随机变量 的特征函数取傅里叶逆变换来确定。回顾一下，随机变量 的特征函数为： 因此，要找到 ，我们需要确定矩 。利用 Risken（第 3 章公式 3.26 和 3.27）中的一个结论，我们可以证明： 将此结果代入特征函数，将得到： 认识到这是一个高斯分布的特征函数，我们可以通过傅里叶逆变换来得到概率密度函数：

示例 5.3（前向 DDPM 平衡态分布）

我们将所得结果应用于前向 DDPM 方程，进行合理性检验，看看在平衡态会得到怎样的概率分布。

为简单起见，假设 DDPM 方程的学习率为常数： 对应的朗之万方程为： 当 时，根据我们上面的定理，有： 这里我们代入了 ，且 。因此，当 时， 的概率分布是 ，这与我们的预期一致。

维纳过程

在 的特殊情况下，线性朗之万方程简化为： 令公式 (5.11) 中 ，可证明： ​ 这也被称为维纳过程。维纳过程解的概率分布可推导如下。

定理 5.4（维纳过程）：考虑维纳过程： 其中 是高斯白噪声，满足 且 。解 满足 时的概率分布 为：

证明：此结果与定理 5.3 的主要区别在于，这里我们关注任意时刻 t 的分布。为此，注意到 。所以，为消除非零均值，我们可考虑 。将其代入公式 (5.13)，可证明： 这意味着 的特征函数为： 对其取傅里叶逆变换，将得到 的概率分布： 为深入理解此方程，假设 且 （k 为常数），则有： 一个有趣的发现是，这一结果（可在许多热动力学教材中找到）表明，概率分布 是热传导方程的解： 假设初始条件为 。要验证这一点，只需将概率分布代入热传导方程，可发现： 热传导方程的解表现为从原点开始、随时间增加向外扩展的高斯分布。这一结果的意义在于，虽然很难知晓由朗之万方程定义的随机过程 的精确轨迹，但热传导方程提供了概率分布的完整图景。图 5.2 展示了维纳过程 的随机实现及其对应的概率分布 。

对于更复杂的朗之万方程（涉及非线性项），自然可预期有一个类似的偏微分方程来描述概率分布。更具体地说，可合理预期方程中会有 项，另一侧会有 项。正如我们稍后将展示的，福克 - 普朗克方程会有类似形式。实际上，可从福克 - 普朗克方程推导出热传导方程。

注记：对于形如以下形式的齐次微分方程组： 其中 且 ，且 ，对应的随机过程被称为奥恩斯坦 - 乌伦贝克过程。

5.2 主方程

到目前为止，我们一直在研究线性朗之万方程 。该方程让我们能够处理大多数前向扩散问题，即目标是向样本中添加噪声（即将输入分布转换为高斯分布）。对于反向扩散（如反向 DDPM 方程和反向 SMLD 方程），我们需要更通用的形式。我们现在考虑的方程是非线性朗之万方程，形式如下。

定义 5.2（非线性朗之万方程）：非线性朗之万方程形式为： 其中 和 分别是漂移项和扩散项。与之前一样，假设 是高斯白噪声，满足对所有 t，，且 （这里系数 2 是为了与常见约定一致 ）。读者可参考示例 5.2，了解反向 DDPM 如何适配此方程。

分析非线性朗之万方程的难点在于没有简单的闭式解。因此，我们需要开发一些数学工具来帮助理解非线性朗之万方程。

马尔可夫性质

首先定义马尔可夫过程。假设 在时间 时的值为 ，且 。我们用 描述 的概率密度。我们还引入以下简写符号： 因此， 是 的联合分布。定义马尔可夫过程：若随机过程 ​ 满足以下无记忆性条件，则称其为马尔可夫过程。

定义 5.3（马尔可夫过程）：若随机过程 满足： 则称其为马尔可夫过程。即，在已知所有先前状态的情况下， 时刻状态 的概率，与仅基于前一时刻 的状态 时的概率相同。

只要 是 delta 相关的，定义 5.2 中满足非线性朗之万方程的随机过程 就是马尔可夫过程。这意味着， 时刻的条件概率仅依赖于 时刻的值。Risken 总结了原因：(i) 一阶微分方程由其初始值唯一确定；(ii) delta 相关的力在时刻 无法改变 时刻的条件概率。Risken 进一步阐述，若 不再是 delta 相关的，马尔可夫性质将被破坏。例如，若 满足 ，则由 描述的过程将是非马尔可夫的。从现在起，我们仅关注马尔可夫过程。

查普曼 - 科尔莫戈罗夫方程

考虑马尔可夫过程 ，我们可推导出一个有用的结果，即查普曼 - 科尔莫戈罗夫方程。该方程指出，可通过对给定 时 的条件概率积分，以及对给定 时 的条件概率积分，得到 和 时刻的联合分布。这里的两个关键依据是贝叶斯定理、边际化定义以及马尔可夫过程的无记忆性。

定理 5.5（查普曼 - 科尔莫戈罗夫方程）：设 为马尔可夫过程， 为 在时刻 的状态。则： 假设

证明：为简化符号，令 ，。若 是马尔可夫过程，根据马尔可夫过程的无记忆性，有： 重复上述推导，可得： 因此，通过对 关于 进行边际化，可证明： 由于 ，可证明： 这就完成了证明。